Kostel se nachází na výšině a je obklopen hřbitovem. Je zde pochovaný například Jan Felkl (1817-88), který v nedalekých Roztokách založil po celé Evropě proslulou firmu na výrobu glóbů, nebo lékař-pediatr profesor Josef Švejcar. Vnitřní vybavení zaujme návštěvníky především hlavním oltářem se starou románskou mensou. Nese barokní obraz sv. Klimenta s pozadím Levého Hradce. Dále se zde nachází figurální náhrobky pod kruchtou, zazděné románské okno, starobylé fresky v presbytáři s tématem Umučení Páně a znázorněním čtyř církevních Otců: sv. Ambrože, Augustina, Jeronýma, Řehoře a dalších.

Nejstarší kostel v Čechách byl postaven na Levém Hradci uprostřed hradiště, odtud tradice Levého Hradce jako místa, "kde začalo naše křesťanství". Kostel byl založen na příkaz knížete Bořivoje, prvního historicky doloženého knížete z rodu Přemyslovců. Přesné datum založení není známo, ale předpokládá se, že výstavba proběhla před rokem 884, kdy zřejmě nejpozději Bořivoj přesídlil na Pražský hrad a založil tam kostel Panny Marie. Po dokončení ho nechal zasvětit sv. Klimentovi, Apoštolskému Otci a domnělému papeži, jehož ostatky přivezli na Moravu Cyril a Metoděj.
Roku 982 zde byl zvolen druhým českým biskupem sv. Vojtěch, ale již v témže roce ho zastínila Praha. Nakonec roku 1041 císař Jindřich III. vypálil hradiště i kostel. Hradiště již obnoveno nebylo, ale kostel v podobě románské rotundy byl znovu obnoven ve druhé polovině 11. století. Později byl na místě původní apsidy postaven gotický presbytář, který byl v 16. století zklenut a opatřen freskami. Roku 1656 se přistavěla zvonice a do roku 1684 proběhla přestavba staré rotundy v barokní kostel. Tato podoba vydržela do dnešní podoby.

Pod podlahou dnes stojícího kostela byly v letech 1939-1941 objeveny a prozkoumány základy rotundy s kruhovou lodí a podkovovitou apsidou. Již brzy po tomto objevu začala diskuze, zda se jedná o původní podobu kostela, tak jak měl vzniknout na konci 9. století. Dnes je na základě studie Petra Sommera o základovém kameni v podstatě přijímána jako doba vzniku archeologicky prozkoumané rotundy nejdříve 11. století. Skutečnost pozdějšího založení podporuje i fakt, že okolo kostela se začalo pohřbívat až v 11. století, předtím bylo obyvatelstvo pohřbíváno mimo hradby v místech dnes zničených žalovskou cihelnou. V otázce původní podoby kostela se proto uvažuje o možnosti dřevěné stavby.